Alle paar Monate diskutieren wir jetzt über ein neues Unternehmen, das dreist so viele Bilder wie möglich im Netz abgreift und dann mit algorithmischen Entscheidungssystemen unsere Gesichter durchsuchbar macht. Und das auch noch mit dem Ziel, diese Dienstleistung für private und staatliche Überwachungssysteme zu verkaufen.
Anfang des Jahres hatten wir das US-Unternehmen Clearview AI. In den vergangenen Wochen haben wir den Geschäftspraktiken von PimEyes hinterher recherchiert. Im Gegensatz zu Clearview AI agiert das polnische Unternehmen aus der EU heraus und bietet seine Dienstleistungen nicht nur Sicherheitsbehörden und Unternehmen an, sondern allen. Noch nie war Stalking so einfach.
Was dort passiert, ist ein Angriff auf unsere Anonymität und unsere Privatsphäre. Die Geschäftspraxis des Unternehmens ist illegal und verstößt gegen die EU-Datenschutzgrundverordnung. Die gilt selbstverständlich auch in Polen.
Die Verantwortung der Plattformen
Wir müssen anhand dieses Falls auch über die Rolle der großen Plattformen sprechen, bei denen es möglich ist, automatisiert Millionen Profile abzugrasen, Fotos zu kopieren und damit Datenbanken zu befüllen. Wir reden bei PimEyes von 900 Millionen Fotos und bei Clearview AI sogar von drei Milliarden. Das geben diese Unternehmen in ihrer PR auch noch stolz zu.
Es gibt doch für jeden Mist automatisierte Entscheidungssysteme, warum eigentlich nicht für das millionenfache Abgrasen von Fotos?
Wir brauchen eine bessere Umsetzung von Datenschutz als Grundeinstellung und im Design. Solchen Unternehmen wird es sehr einfach gemacht, indem die Grundeinstellungen in sozialen Medien immer auf öffentlich stehen. Wer das ändern will, braucht die Kompetenz und häufig einen langen Atem, die richtigen Einstellungen zu finden und zu verschärfen. Warum ist dieses Privacy-by-Design immer noch nicht eingeführt? Es wäre so einfach: Alles wird erst mal auf nicht-öffentlich gestellt – und wer freizügig sein will, hat die Freiheit, sich zum Verlust seiner privaten Daten mühsam durchzuklicken! Dann hätten wir sofort weniger Probleme.
Alle unsere Fotos können gegen uns verwendet werden
Aber wir alle haben auch eine Verantwortung, über die wir zu wenig reflektieren. Jedes Foto, das wir von uns und anderen hochladen, kann dazu beitragen, diese Gesichtserkennungssysteme zu verbessern und in Referenzdatenbanken zu landen. Sowohl auf den jeweiligen Plattformen selber wie auch bei den Trittbrettfahrern wie PimEyes. Jedes Mal, wenn wir andere Personen verschlagworten, helfen wir Systemen, uns und andere besser zu erkennen. Wollen wir das überhaupt? Sollten Fotos auch automatisierbar nach einiger Zeit gelöscht werden können?
Es ist vor allem ein institutionelles Problem. Wenn die überwiegende Mehrheit der Expert:innen der Meinung ist, dass das nicht mit der Datenschutzgrundverordnung kompatibel ist: Warum können Unternehmen in der Europäischen Union so agieren? Wer klagt gegen sie? Wie bekommen wir eine effektivere Datenschutzdurchsetzung hin, die schneller und effizienter arbeitet und empfindliche Strafen verteilt? Warum werden Datenschutzbehörden immer noch künstlich klein gehalten, so dass sie nicht effektiv ihre Arbeit machen und Recht durchsetzen können?
Datenbanken und Technologien wie die von PimEyes sind die Basis für die Überwachungssysteme der Zukunft. Wir brauchen ein klares Verbot für die Entwicklung und Einführung von automatisierten Gesichtserkennungssystemen im öffentlichen Raum in der ganzen Europäischen Union. Der gesellschaftliche Schaden durch diese Hoch-Risikotechnologie ist zu groß.
